Новая базовая компетенция: Кибератаки перестают быть чисто технической задачей

Рост киберугроз из-за искусственного интеллекта (ИИ) возможен уже в ближайшие месяцы. С таким предупреждением накануне выступил разведывательный альянс «Пять глаз», в который входят США, Канада, Новая Зеландия, Великобритания и Австралия.

Эксперт по внедрению ИИ в образование, управление и корпоративную среду, руководитель AI-студии 1331 Мария Лопухина в интервью «Свободной Прессе» заявила, что такое предостережение предупреждение скорее фиксирует уже происходящие изменения. ИИ снижает порог входа в кибератаки и масштабирует не только вредоносный код, но и воздействие на человека.

По некоторым данным, в период с 2023 по 2024 год число кибератак выросло примерно на 12 200%. С точки зрения влияния больших языковых моделей (LLM), ChatGPT и его аналогов это объясняется в первую очередь упрощением фишинговых шагов, когда пользователю направляются сгенерированные фразы-триггеры, стимулирующие его открыть файл или перейти по ссылке.

«Кибератаки, в частности регламенты фишинга, перестают быть чисто технической задачей и смещаются в область восприятия. Злоумышленники используют ИИ для создания убедительных сценариев общения — от писем до новостных сообщений, которые трудно отличить от реальных. Уже появляются фейковые новости, сгенерированные ИИ: сообщения о якобы надвигающемся дефиците бензина или ложная информация о ходе СВО. Такие вбросы нацелены не на прямой взлом, а на создание паники и подрыв доверия», — отметила Лопухина.

По словам эксперта, для государства риск связан с атаками на информационное пространство и критическую инфраструктуру, где ключевая цель — дестабилизация. Для бизнеса — рост числа инцидентов с утечками, финансовыми потерями и репутационными кризисами. Входной точкой все чаще становится сотрудник, а не техническая уязвимость.

Различные исследования показывают: пользователь склонен доверять системам, которые звучат уверенно. Возникает эффект overreliance (чрезмерной опоры), когда решение принимается быстрее, чем происходит проверка, уточнила собеседник «СП».

«Ответ на эти риски выходит за рамки технологий. На первом плане здесь поведенческая модель: приоритет проверки над скоростью, критическое отношение к правдоподобной информации и осознанное управление доверием. Формируется новая базовая компетенция — цифровая устойчивость. В условиях, когда ИИ усиливает и атакующих, и защиту, выигрывает тот, кто способен замедлиться и проверить, а не реагировать автоматически», — подчеркнула Лопухина.

Ранее сообщалось, что мошенники освоили новую функцию мессенджера Telegram, позволяющую подключать ботов-секретарей к личной переписке.